Tháng 5 năm 1865, sau khi các đội quân chủ lực của miền Nam đầu hàng, Sherman viết trong thư riêng:

Tôi không ngại ngùng gì khi thú thực rằng tôi chán ngấy việc đánh nhau; những hào nhoáng bên ngoài toàn là giả tạo; ngay cả những thành quả lộng lẫy cũng phải dựa trên những xác chết và những xác thân tàn phế, với sự đau khổ và than van của thân quyến từ phương xa, nài nỉ tôi phải trả lại những đứa con trai, những người chồng, người cha... chỉ có những kẻ chưa bao giờ nghe tiếng súng, chưa bao nghe tiếng gào thét và tiếng rên rỉ của những người bị tan da nát thịt... mới to tiếng kêu gọi đánh nhau, thêm nợ máu, thêm hận thù, thêm đổ nát... [51]

Ngày 26 tháng 7 năm 1866, Quốc hội Hoa Kỳ thăng hàm Thống tướng Lục quân cho Grant và phong Sherman lên Trung tướng. Khi Grant thắng cử tổng thống Hoa Kỳ năm 1869, Sherman được lên chức Tổng chỉ huy quân đội Hoa Kỳ và giữ hàm Thống tướng Lục quân. Ông cũng từng làm Bộ trưởng Chiến tranh một thời gian khi John A. Rawlins mất. Để tránh những khó khăn dồn dập trong chính trường, Sherman quyết định dời phòng tham mưu về St. Louis, Missouri. Ông có công thành lập trường đào tạo sĩ quan chỉ huy tại Fort Leavenworth.

Nhiệm vụ chính yếu trong thời Sherman thống lĩnh quân đội Hoa Kỳ là bảo vệ tuyến đường xe lửa không cho dân da đỏ quấy phá. Trong chiến tranh với dân da đỏ, ông cũng dùng chiến thuật tiêu thổ tán phá ruộng nương lương thực của các bộ lạc, khiến họ không đủ khả năng phục hồi và phải chịu thất trận. Sherman ra lệnh cho quân sĩ tiêu diệt các bầy bò rừng, một nguồn thực phẩm quan trọng của người da đỏ ở đồng bằng.[52] Tuy ông dập tan các bộ lạc chống đối, Sherman lại là người lên tiếng chỉ trích những bọn quan quyền nhà nước sau đó đối đãi tệ bạc với người da đỏ trong các vùng tập trung.[53]

Năm 1875 Sherman xuất bản hồi ký dài 2 tập. Theo bình luận gia Edmund Wilson, Sherman là một người:

Ngày 19 tháng 7 năm 1879, Sherman đọc bài luận "Chiến tranh là Địa ngục" cho lớp sinh viên ra trường tại Trường Võ bị Michigan, với hơn 10.000 thính giả: "Nhiều thanh niên có mặt ngày hôm nay nhìn chiến tranh như vinh hạnh, nhưng, các cậu ơi, chiến tranh hoàn toàn là Địa ngục." [55]

Ngày 1 tháng 11 năm 1883 Sherman từ chức chỉ huy và về hưu ngày 8 tháng 2 năm 1884. Ông sống quãng đời còn lại tại New York. Ông thích xem kịch tuồng sân khấu và là họa sĩ không chuyên nghiệp. Ông được mời nói chuyện tại nhiều buổi họp mặt, tiệc tùng của mọi giới chức, và trong các cuộc đàm thoại ông đặc biệt thường trích các vở kịch của Shakespeare.[56] Sherman được nhiều người đề nghị ra ứng cử tổng thống năm 1884 nhưng ông khăng khăng chối từ, nói rằng "Nếu bị kêu đi lính, tôi sẽ không chạy; nếu được đề cử, tôi sẽ không nhận; và nếu thắng cử, tôi sẽ không phục vụ chức ấy đâu." [57] Ngày nay những ai từ chối quyền ra ứng cử mãnh liệt như thế thì hay bị gọi là "từ chối theo kiểu của Sherman".